Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments?
Learn2Play Bench：评估 LLM Agent 在陌生环境从经验学习的能力
🧭 LLM Agent 经验学习评估基准
National University of Singapore
设计新文本游戏基准 Learn2Play Bench，揭示保留完整交互轨迹优于总结规则、改变 harness 可提升性能并降本
📌 工作参考价值（4 点）
- 在电商客服、导购、自动谈判等 Agent 场景中，优先保留完整的动作-反馈交互轨迹作为后续决策上下文，而不是仅让 LLM 总结成规则或策略；原始轨迹能保留更多细节，有助于更有效的经验学习。
- 固定 LLM 骨干模型后，优先优化 Agent harness（状态管理、观察剪枝、动作选择器、循环控制等）可能比微调模型更划算：论文显示更换 harness 可同时提升性能并降低推理成本，对业务降本增效有直接借鉴意义。
- 评估 Agent 上线前的学习/适应能力时，应设计规则新颖或反直觉的任务，避免模型利用预训练知识掩盖交互学习不足；同时通过变化游戏实例测试泛化，类似电商场景中的新品类、新活动规则快速适应测试。
- 人类玩家策略多样性显著高于 Agent，且重复动作更少，提示在 Agent 探索机制中可引入多策略采样、多样性正则或 epsilon-greedy，避免过早陷入局部策略，对复杂对话和推荐交互尤其有用。